حجاج در نامهء خود او را ناتوان شمرد و خشونت كرد ، او نيز سران اهل عراق را كه همراه وى بودند به خلع حجاج خواند و آنها نيز كه حجاج را دشمن داشتند و از سطوت او بيم داشتند بپذيرفتند و حجاج را خلع كردند . پس از آن عبد الرحمن حركت كرد و بازگشت كه حجاج را از عراق برون كند و از عبد الملك بخواهد تا او را بجاى حجاج بنشاند وقتى جماعت او بزرگ شد و بسيارى از سران و مردم و قاريان و زهاد عراق به دو پيوستند عبد الملك را خلع كرد ، و اين در استخر فارس بود ، و همهء مردم عبد الملك را خلع كردند . ابن اشعث خويشتن را « ناصر المؤمنين » ناميد . به دو گفته بودند كه وى همان قحطانى است كه يمانيان انتظار او را مىبرند و ملك آنها را تجديد خواهد كرد . وقتى به دو گفتند كه نام قحطانى موعود سه حرف است . گفت نام من عبد است و الرحمن جزو نام من نيست . حجاج بمقابلهء او شتافت و در هفت فرسخى شوشتر از ولايت اهواز با او روبرو شد . ابن اشعث ياران حجاج را شكست داد و قريب هشت هزار كس از آنها را بكشت . حجاج ببصره رفت و در زاويه اقامت گرفت . ابن اشعث نيز برفت و در خريبهء بصره فرود آمد و اين بسال هشتاد و سوم بود . نزديك دو ماه در ميانه جنگ بود پس از آن ابن اشعث با عدهء كمى از ياران خود شبانه سوى كوفه رفت تا بر آنجا تسلط يابد و صبحگاه ياران وى با عبد الرحمن بن عباس بن ربيعة بن حارث بن عبد المطلب بيعت كردند و حجاج با آنها روبرو شد و شكستشان داد كه به ابن اشعث پيوستند . آنگاه ابن اشعث از كوفه برون شد و در دير الجماجم فرود آمد . حجاج نيز بيامد و در دير قره فرود آمد . وى به عبد الملك نوشته و از او كمك خواسته بود و او نيز پسر خود عبد الله بن عبد الملك را با برادر خود محمد بن مروان بكمك او فرستاد و در دير الجماجم نزديك چهار ماه جنگ كردند و چنان كه گفته‌اند هشتاد جنگ در ميانه رفت .